Argo-Bench: Evaluating Data Agents on Enterprise-Scale Workflows
Argo-Bench:评估企业级工作流中的数据智能体
🧭 数据智能体评估 · 企业级数据工作流
TextQL
构建企业级数据智能体评估基准,模拟纽约外卖平台,要求跨235表分析并采取行动,最强模型均分仅59.5
📌 工作参考价值(4 点)
- 评估 Agent 时不要只看 SQL 正确率,可以引入“动作后果评分”:在电商/推荐场景中构造仿真环境(如用户响应模型、市场模拟器)对调价、选品、发券等决策进行闭环评估
- 复杂 schema 导航是实际瓶颈:可构建内部数据仓库查询基准,覆盖多表 join 和业务语义,并用可执行参考解保证可解性,避免错误答案误导模型评估
- 最强模型在长链路、多表、需行动的任务上平均分仍低,说明工程上需要为 Agent 增加 schema 检索、知识图谱、规划模块或领域微调,而非仅依赖 prompt
- 参考解设计可迁移:为每个任务提供端到端可执行方案,便于诊断 Agent 失败在导航、SQL、分析还是行动阶段,支撑针对性优化